„Kaip kompanijos, kuriančios dirbtinio intelekto technologijas ir robotiką, kurios gali būti nukreiptos į autonominių ginklų vystymą, mes jaučiame ypatingą atsakomybę, kad apie tai perspėtume. (...) Mirtini autonominiai ginklai rizikuoja pradėti trečiąją revoliuciją kare. Jų sukūrimas leistų ginkluotiems konfliktams vykti neregėtu mastu ir didesniu greičiu, nei žmogus gali suprasti. Tai gali būti teroro ginklai, kuriuos despotai ir teroristai panaudotų prieš nekaltus žmones, neteisėtai užvaldyti ginklai, kurie veiktų nenorimu būdu. Mes nebeturime daug laiko apsispręsti veikti. Kartą atidarius šią Pandoros skrynią, ją bus sunku uždaryti“, rašoma atvirame laiške, kviečiančiame JT konvencijos būdu reguliuoti ir riboti savarankiškai veikti galinčių mirtinų ginklų kūrimą. Šį laišką pasirašė virš šimto informacinių technologijų kompanijų vadovų iš beveik trijų dešimčių šalių. Tarp jų galima atrasti „Tesla“ ir „SpaceX“ vadovo Elono Musko, vieno iš žinomiausių vardų šiuolaikinių technologijų pasaulyje, parašą.
Prieš keletą metų Jungtinėse Tautose pradėta formali diskusija šiuo „mirtinų autonominių ginklų sistemų“ klausimu, nes fantastinių filmų scenos apie ginkluotus robotus pradėjo tapti realybe, ypač dėl pažangos dirbtinio intelekto technologijose. Pagunda kurti tokias ginklų sistemas yra didelė: jau ir dabar ginklų technologijos leidžia jiems veikti efektyviau ir ta prasme, kad išvengiama nekaltų civilių ar savo karių gyvybių praradimo.
Jau daug informacinių technologijų ir robotikos ekspertų perspėja, jog situacija gali išsprūsti iš rankų, jog kare neišvengiamai atsiskleistų „tamsioji pusė“. Robotizuoti ir autonomiškai veikiantys ginklai taip pat kelia eilę klausimų apie atsakomybę. Dabartiniai teisiniai ir etiniai standartai, nacionaliniu ar tarptautiniu lygiu, nebeatitinka situacijų, kurias gali sukurti, kaip kartais rašoma žiniasklaidoje, „robotai žudikai“.
Nuo 2014 metų Jungtinių Tautų Organizacijoje yra sušaukiama ekspertų grupė, kuri nagrinėja savarankiškų ginklų sistemų keliamas problemas. Ne kartą šiais klausimais pasisakė ir Šventojo Sosto diplomatas, ypač pabrėždamas moralinius aspektus. Ir šiais metais, lapkričio 13 dieną, arkivyskupas Ivan Jurkovič, Ženevoje reziduojantis Vatikano diplomatas, pasinaudojo galimybe valstybių delegatams ir ekspertams išsakyti tokio tipo pastabas.
Pirma, neišvengiama, kad autonominės sistemos gali suveikti taip, kaip nenumatyta ar neplanuota, ypač jei joms bus suteiktos mokymosi ir savęs perprogramavimo savybės, ir jos išsprūs iš žmogaus nustatytų tikslų ir atsakomybės lauko. Ne viskas „telpa“ algoritmuose, teisiniai ir etiniai sprendimai kartais pareikalauja tokios taisyklių interpretacijos, kad būtų išsaugota pati taisyklių esmė. Mašina gali niekada to nesugebėti.
Antra, kyla rizika, kad bus užtušuota tikroji atsakomybė ir atskaitingumas. Autonominių ginklų sistemų naudojime glūdi tam tikras veidmainystės laipsnis: ketinama sukelti mirtinų pasekmių tarsi asmeniškai tame nedalyvaujant. Taip tarsi sukuriama „technologinė uždanga“, kuri pašalina karinio veiksmo priežastį ir pasekmę. Šalutinės žalos atveju bus nesunku neigti savo atsakomybę, viską suverčiant blogam mašinos veikimui. Dar vienas pavojus ir pavojinga pagunda yra mintis mašinoms pripažinti, teisiškai, tam tikrą „elektroninę asmenybę“, prarandant suvokimą apie skirtumą tarp daikto ir asmens, kuris yra vienintelis tikras moralinis subjektas. O juk būtent dėl sugebėjimo mąstyti ir elgtis laisvai bei atsakingai asmuo įgyja ir teisinę atsakomybę.
Trečioje pastaboje arkivyskupas paminėjo riziką, kad pasaulyje prasidės naujos ginklų varžybos. Ar, kaip rašė informacinių technologijų kompanijų vadovai, nauja „revoliucija“ ginkluotės srityje. Čia galime atsiminti perėjimą nuo šaltųjų ginklų prie šaudančių, lemiamai įtakojusį pačią karybą ir karo pasekmes. Nors trumpalaikėje perspektyvoje gali pasirodyti patrauklu sukurti naują ginklų kartą, ilgalaikėje perspektyvoje tai gali lemti globalų nestabilumą, panašiai kaip branduoliniai ginklai šiandien. Negalima pamiršti, kad robotinės technologijos gali išplisti labai greitai ir nesunkiai patekti į neatsakingas rankas.
„Mes turime įtikinti save apie etikos pirmumą technologijos ir apie asmens viršumą daiktų atžvilgiu“, citavo Vatikano diplomatas šv. Jono Pauliaus II žodžius, pasakytus mokslo pasauliui vizito Japonijoje metu, branduolinės bombos sprogimą išgyvenusioje Hirošimoje. (Vatikano radijas)
